Ông sinh năm 1019 tại nơi hiện nay là huyện Vận Thành, tỉnh Sơn Tây trong một gia đình giàu có. Cha ông là Tư Mã Trì từng làm các chức quan huyện, Chuyển vận sứ, Phó sứ tam ty, Lang trung thượng thư Lại bộ, Thiên chương các đãi chế dưới thời Tống Chân Tông và Tống Nhân Tông, nổi tiếng là người trung thực và nhân hậu[1]. Ông chính là hậu duệ của em trai Tư Mã Ý, người đã từng có tiếng tăm dưới trướng Tào Tháo, Tư Mã Phu.

Anh Tư Mã Quang là Tư Mã Đán được nối chức cha, trong quan trường trải qua 17 chức vụ khác nhau, làm đến chức Thái trung đại phu, sống khá đạm bạc.